Книга Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

алгоритмы, как функция People You May Know (PYMK) от Facebook: рекомендательная система, которая активно предлагает потенциальных друзей, отображая фотографию и имя рекомендуемого профиля на видном месте на сайте. Ее цель - не только связать пользователей, которые могут знать друг друга в реальной жизни, но и соединить друзей друзей - потому что команда разработчиков Facebook заметила, что знакомство с большим количеством людей увеличивает время пребывания пользователя на сайте. Инженеры Facebook подсчитали, что у обычных пользователей может быть сорок тысяч друзей друзей, а у "опытных пользователей" - до восьмисот тысяч. 30 Алгоритмы рекомендаций работают как в Facebook, так и в других местах, создавая ощущение серендипности или любопытства и побуждая нас кликнуть. Эти алгоритмы успешно соединяют людей в огромных масштабах и таким образом, что они выходят за рамки географии, создавая новые социальные сети, по которым распространяется контент и мнения. Они превратили "друг" в глагол.

PYMK и подобные алгоритмы рекомендации соединений используют все имеющиеся в их распоряжении данные. Приложения для социальных сетей запрашивают доступ к контактам вашего телефона, чтобы сверить номера с зарегистрированными пользователями, а затем предлагают вам добавиться в друзья или следить за совпадениями. Другие способы связи между людьми включают физическую близость - например, если возможности определения местоположения вашего телефона показывают, что вы и другой человек работаете в одном месте или ходите в одну школу в одно и то же время. 31 Это работает достаточно хорошо, но иногда показывает, что рекомендатели на самом деле не понимают социальные нормы, которые они моделируют. Журналистка Кашмир Хилл провела расследование одного тревожного случая, когда алгоритмы PYMK рекомендовали пациентов терапевта друг другу, предположительно на основании их взаимных связей с ней (например, наличия в их телефонах номера телефона ее клиники). 32 Алгоритмы оптимизируются для достижения определенной цели; это означает, что если они не будут тщательно продуманы, это может привести к непредвиденным последствиям.

Изначально Facebook был построен на идее "друзей" и двунаправленных отношений: вы дружите с кем-то, а он дружит с вами. В значительной степени это было копирование реальных социальных сетей в виртуальном пространстве. Но другие платформы, такие как Twitter, строили свой бизнес и пользовательский опыт на модели "последователя": вы могли следить за человека на платформе и видеть его публичные сообщения, даже если человек не знал о вашем существовании и не следил за вами в ответ. Вы могли следить за людьми по интересам.

Алгоритмы, предлагающие следовать за людьми на основе их известности или актуальности, помогали непреднамеренно рождать влиятельных людей, просто предоставляя их аккаунтам почетное место в списке. В январе 2010 года технический предприниматель Анил Даш написал в блоге пост, в котором описал свой опыт попадания в список предложенных пользователей Twitter, который появился в 2009 году. Дэш отметил, что в октябре 2009 года у него было восемнадцать тысяч подписчиков. "Если бы я продолжал расти обычными темпами, сегодня у меня было бы около 25 000 подписчиков, - написал он, - но благодаря попаданию в список у меня почти 300 000 подписчиков". 33 Получение большего числа подписчиков порождает еще больше подписчиков, поскольку популярные аккаунты предлагаются чаще. Система рекомендаций "Предлагаемые пользователи" вызывала определенные споры даже в 2009 году, поскольку люди признали ее способность укреплять влияние в сети случайным образом, как будто алгоритм или владелец платформы положил большой палец на чашу весов; это явно отличалось от того, как слава зарабатывается в оффлайне, несмотря на то что в том, как СМИ приписывают знаменитостей, тоже есть доля случайности. 34

Элон Маск, купивший Twitter в 2022 году, предлагает более свежий пример. По состоянию на начало 2023 года следование за Элоном Маском приводит к появлению кластеров похожих аккаунтов, которые, по мнению алгоритма Twitter, заинтересуют пользователя: Марджори Тейлор Грин, Tesla, Джим Джордан, Лео Террелл, SpaceX и Дональд Трамп-младший. Попадание в список предполагаемых подписчиков самого известного пользователя сайта дает преимущества остальным, которых он привлек к себе; количество подписчиков Марджори Тейлор Грин и Джима Джордана подскочило на сотни тысяч в течение месяца. 35 Это был интересный взгляд на то, где, по мнению алгоритмов Twitter, находится Маск в политическом плане. А если бы вы последовали за одним из предложенных аккаунтов, то, в свою очередь, увидели бы еще одну волну похожих предложений - возможно, более правых политиков или правых артистов. Система рекомендаций формирует сети влияния и усиления с потенциально значительными последствиями.

Facebook тоже постепенно начал объединять людей по интересам. Во многом это произошло благодаря тому, что Facebook начал рекомендовать не только друзей, но и группы , постоянные сообщества, созданные вокруг какой-либо темы - "Куры на заднем дворе", "Воины меланомы", "Мой ребенок не спит", - в которых люди объединялись не по общим связям, а по интересам. В таких группах люди завязывали глубокую дружбу, что, как правило, увеличивало время пребывания на сайте. Это было полезно для компании.

И тогда компания приступила к переориентации социальных сетей пользователей с помощью систем рекомендаций, которые способствовали развитию групп. В своей простейшей форме рекомендательные системы предлагают контент на основе выраженных интересов. Известный как фильтрация по содержанию, этот тип алгоритма берет сигналы от того, что сделал сам пользователь, например посмотрел видео о садоводстве, а затем предлагает больше садоводческого контента или сообществ. Но по мере того как платформы накапливали данные о миллионах пользователей, рекомендательные системы научились находить сходства между пользователями, предлагая предложения, основанные не на том, что делала сама пользовательница, а на том, что делали люди, похожие на нее, - этот процесс называется коллаборативной фильтрацией. Просмотр видео о садоводстве может привести к предложениям о вегетарианских кулинарных группах, например, или о беге трусцой.

По мере того как алгоритмы социальных сетей всасывали и обрабатывали все больше данных о поведении пользователей, в том числе о политике, и перерабатывали их в рекомендации, они оказались чрезвычайно точными, предлагая то, что интересовало людей, но при этом вызывало тревогу и аморальность. В период с 2013 по 2015 год начали появляться признаки непредвиденных последствий: алгоритмические рекомендации глубоко токсичных сообществ. Например, в 2014 году у Twitter возникли проблемы с базирующейся в Сирии и Ираке террористической группировкой "Исламское государство" (ИГИЛ, или ДАЕШ). Вербовщики и фанбои ИГИЛ присутствовали на платформе, используя ее как инструмент пропаганды и влияния, распространяя свои сообщения и увеличивая число своих последователей. 36 Они поддерживали идеологию своего так называемого виртуального халифата, и если вы следовали за одним аккаунтом, алгоритм предлагал другие.

В 2016 году система рекомендаций групп Facebook начала предлагать группы "Пиццагейт" пользователям, которые состояли в других группах, посвященных